Leistungsstarke KI-Beschleuniger für Rechenzentren stammen zwar von Grafikchips ab, doch die GPUs haben sich längst auch jenseits der KI-Spezialisierung weiterentwickelt. Die Servervarianten verwenden keinen GDDR-Speicher, wie er bei 3D-Grafikkarten üblich ist; stattdessen steuern sie High Bandwidth Memory (HBM) an. Dieses schafft die namensgebende hohe Datentransferrate (Bandbreite) durch einen Kniff: Ein HBM-Speicherstapel hat Tausende von Datensignalleitungen. Damit die Signalwege kurz bleiben, sitzt HBM direkt neben dem zugehörigen Chip im selben Package.
